есть ли там скоординированная деятельность, спонсируемая иностранными государствами". Они обучили набор алгоритмов, позволяющих выявлять признаки так называемых кампаний влияния. Работая с наборами данных, опубликованными Twitter и Reddit, группа сосредоточилась на деятельности троллей из России, Китая и Венесуэлы в период с 2015 по 2018 год.
Вскоре алгоритмы научились выявлять характерные пропагандистские паттерны. Ализаде и его коллеги запустили их в работу на наборах данных, содержащих несколько постов троллей и несколько "контрольных" постов обычных пользователей, чтобы посмотреть, как они себя поведут. После нескольких попыток алгоритмы в большинстве случаев смогли предсказать, является ли сообщение троллем. Легче всего было определить венесуэльских троллей - в некоторых тестах точность составляла 99 %. Когда речь шла о китайских и российских троллях, алгоритмы справлялись с задачей от 74 до 92 процентов раз. Это не идеально, но это хорошее начало.
Вопрос в том, как отделить настоящую чушь в социальных сетях от подделки, когда поддельные аккаунты постоянно обсуждают новые темы? По словам Ализаде, ответ заключается в том, чтобы каждый месяц обучать этих ботов, ищущих троллей, на новых данных. Используя активность предыдущего месяца, он и его команда пытаются создать точные пропагандистские прогнозы погоды на следующий месяц. Такую работу иногда называют "предбанкингом", и она уже доказала свою эффективность. Однако это всегда будет гонка вооружений, особенно если оперативники начнут переходить с одной платформы на другую или использовать ИИ вроде ChatGPT для создания фальшивых историй и пропагандистских постов.
Выборы без хоккейных клюшек
Мне хотелось узнать, как будет выглядеть эта гонка вооружений в будущем, и я связался с Алексом Стамосом, бывшим главным специалистом по безопасности Facebook, который заметил, как разворачиваются психологические кампании на выборах 2016 года . Я знаю Стамоса уже много лет и помню, как столкнулся с ним на конференции компьютерных хакеров в Лас-Вегасе сразу после того, как он получил должность CSO Facebook. Мы были на вечеринке, где собрались эксперты по компьютерной безопасности, специалисты по технической политике и журналисты вроде меня, и люди продолжали забрасывать Стамоса все более пьяными вопросами о том, почему он идет в компанию, известную своими промахами в области конфиденциальности и безопасности. "Я буду канарейкой в угольной шахте", - сказал он нам. "Если вы услышите о том, что я ухожу из Facebook при загадочных обстоятельствах, вы узнаете, почему". В тот момент я пожал плечами. Я знал, что его намерения были искренними, но я также знал, что корпорации умеют заманивать людей, заставляя их делать то, о чем они никогда не думали. Но на той поздней вечеринке он оказался верен своему слову. Пиарщики Facebook неясно объяснили причины его ухода из компании, но как только Стамос смог говорить свободно, он это сделал. Во многом благодаря ему и его команде компания признала, что российские оперативники проводили пси-операции в Facebook во время выборов 2016 года. Уходя, Стамос сделал публичное заявление о том, что его беспокоит практика сбора данных Facebook и нежелание принимать чью-либо сторону в дебатах по гуманитарным вопросам.
Стамос был директором-основателем Стэнфордской интернет-обсерватории - непартийной междисциплинарной группы исследователей, которые консультируют правительство и промышленность по вопросам проведения дезинформационных кампаний в сети, а также по другим вопросам доверия и безопасности. К избирательному циклу 2020 года Обсерватория присоединилась к коалиции других исследовательских групп под названием Election Integrity Partnership (EIP), чтобы отслеживать дезинформацию о выборах в социальных сетях. EIP создало простую онлайн-систему отчетности, которая позволила работникам избирательных комиссий, экспертам по кибербезопасности, академическим исследователям и некоммерческим группам граждан подавать "билеты" с сообщениями о дезинформации на восьми различных социальных медиа-платформах. После тщательного анализа EIP пришла к выводу, что кампании влияния в Интернете были движущей силой мятежа в Капитолии в 2021 году.
Я встретил Стамоса в арабской уличной закусочной в Сан-Франциско, где мы поговорили о состоянии цифровых псиопов за чашкой хумуса, поданного с кофе, приправленным кардамоном. Я спросил его, что изменилось между циклами президентских выборов 2016 и 2020 годов, в обоих из которых была задействована значительная цифровая пропаганда. Он сказал, что одно из очевидных различий заключается в источнике операций влияния: в 2015 году значительное количество операций было иностранным, а в 2020 году большинство из них проводилось американцами для американцев. Кампания 2016 года научила крупные платформы, такие как Facebook, выявлять и пресекать большую часть иностранного вмешательства в выборы. Однако, по словам Стамоса, они не придумали, как остановить "Трампа и его союзников, заставляющих всех поверить в то, что выборы будут украдены". В результате стохастические операции влияния шли со всех сторон. Обычные граждане, которых политические лидеры заставляли видеть повсюду заговоры, распространяли дезинформацию с такой же готовностью, как и платные пропагандисты.
"Вы помните SharpieGate?" - взволнованно спросил он. "Когда люди говорили: "Моя ручка кровоточит в бюллетене, и это сделает мой голос недействительным"?" Он имел в виду инцидент во время президентских выборов в Аризоне, когда избиратели-республиканцы начали писать в Twitter о том, что им выдали ручки с шарпи, а избирателям-демократам - нет. История была ложной - избирательные органы Аризоны предоставили множество доказательств того, что их машины для голосования могут считывать бюллетени, помеченные шарпи, - но Стамоса не интересовала эта часть. Он и команда EIP сосредоточились на том, как слух распространился по социальным сетям, а затем вырвался на в мейнстрим. Все началось на самом верху, а затем распространилось среди рядовых избирателей. "Люди завелись, потому что их уже подтолкнули к мысли о том, что выборы будут украдены. И многие начали говорить: "Я тоже голосовал с помощью шарпи"", - вспоминает Стамос. "И тогда Fox News позвонил в Аризону". Команда Трампа ожидала победы и тут же начала кричать. В этот момент в социальных сетях разразилась волна "SharpieGate".
Это стало тем, что Стамос назвал "открытым заговором", где люди продолжали добавлять новые предполагаемые доказательства с мест: фотографии шарпи, размытые изображения бюллетеней и многое другое. Пол Лайнбаргер мгновенно распознал бы открытые заговоры как форму построения мира, когда люди генерируют истории на основе намеков, брошенных оперативниками. Влиятельные люди в Twitter подхватили первые слухи о шарпи и усилили их с помощью хэштега SharpieGate. Дети Трампа написали об этом в Твиттере, а кандидат от QAnon на пост губернатора Аризоны Брайан Маше объявил, что в капитолии состоится акция протеста, на которую люди должны принести свои шарпи и "держать их высоко".
Это была модель вирусного взрыва, которую команда EIP наблюдала неоднократно. Хотя казалось, что все вдруг заговорили о SharpieGate, на самом деле "огромный процент дезинформации распространялся двадцатью аккаунтами
